我们为异质电子健康记录（EHR）数据开发了无监督的概率模型。利用混合模型公式，我们的方法直接建模了任意长度的序列，例如药物和实验室结果。这允许亚组和掺入基础异质数据类型的动力学。该模型由一组层次的潜在变量集组成，这些变量编码数据中的基础结构。这些变量代表顶层的主题亚组，而在第二层中的序列未观察到的状态未观察到。我们在Kaiser Permanente North California综合医疗保健提供系统中接受了接受医疗服务的受试者的情节数据训练该模型。训练有素的模型的最终属性从这些复杂和多方面的数据中产生了新的见解。此外，我们还展示了该模型如何用于分析有助于评估死亡率可能性的序列。
translated by 谷歌翻译
我们提出了一种新颖的神经网络架构，称为Autoatlas，用于3D脑磁共振成像（MRI）卷的完全无监督分区和表示学习。 Autoatlas由两个神经网络组件组成：一个神经网络基于卷中的本地纹理执行多标签分区，以及第二神经网络以压缩每个分区内包含的信息。我们通过优化旨在促进每个分区的准确重建的损耗功能同时培训这两种组件，同时鼓励空间平滑和连续的分区，并劝阻相对小的隔板。我们表明分区适应脑组织的主题特定结构变化，同时始终出现在跨对象的类似空间位置。 Autoatlas还产生非常低的维度功能，表示每个分区的本地纹理。我们展示了使用导出的特征表示的与每个对象相关联的元数据的预测，并使用从释放释放解剖局派生的特征进行比较预测结果。由于我们的功能本质上与不同的分区相关联，我们可以映射兴趣的值，例如分区特定的特征重要性分数到大脑上以进行可视化。
translated by 谷歌翻译
在二阶不确定的贝叶斯网络中，条件概率仅在分布中已知，即概率上的概率。Delta方法已应用于扩展精确的一阶推理方法，以通过从贝叶斯网络得出的总和产物网络传播均值和方差，从而表征了认知不确定性或模型本身的不确定性。另外，已经证明了Polytrees的二阶信仰传播，但没有针对一般的定向无环形结构。在这项工作中，我们将循环信念传播扩展到二阶贝叶斯网络的设置，从而产生二阶循环信念传播（SOLBP）。对于二阶贝叶斯网络，SOLBP生成了与Sum-Propoduct网络生成的网络一致的推论，同时更加有效且可扩展。
translated by 谷歌翻译
当历史数据受到限制时，与贝叶斯网络节点相关的条件概率不确定，并且可以在经验上进行估计。二阶估计方法为估计概率和量化这些估计的不确定性提供了一个框架。我们将这些案例称为Uncer Tain或二阶贝叶斯网络。当完成此类数据时，即每个实例化都观察到所有可变值，已知有条件的概率是dirichlet分布的。本文通过使他们能够学习参数（即条件概率），通过不完整的数据来学习不确定的贝叶斯网络的当前最新方法。我们广泛评估各种方法，通过各种查询的置信界的所需和经验得出的强度来学习参数的后验。
translated by 谷歌翻译
尽管现在使用自我监督方法构建的计算机视觉模型现在很普遍，但仍然存在一些重要问题。自我监督的模型是否学习高度冗余的频道功能？如果一个自我监督的网络可以动态选择重要的渠道并摆脱不必要的渠道怎么办？目前，与计算机视觉中的有监督的对手相比，通过自我训练预先训练的Convnet在下游任务上获得了可比的性能。但是，有一些自我监督模型的缺点，包括大量参数，计算昂贵的培训策略以及对下游任务更快推断的明确需求。在这项工作中，我们的目标是通过研究如何将用于监督学习的标准渠道选择方法应用于经过自学训练的网络。我们验证我们在一系列目标预算上验证我们的发现$ t_ {d} $，用于跨不同数据集的图像分类任务的频道计算，特别是CIFAR-10，CIFAR-100和IMAGENET-100，获得了与原始网络的可比性性能when selecting all channels but at a significant reduction in computation reported in terms of FLOPs.
translated by 谷歌翻译
我们提出了一种隐含的可能性方法，可以通过分散目录数据量化宇宙学信息，并作为图形组装。为此，我们使用模拟暗物质光环目录探索宇宙学的推断。我们采用最大化神经网络（IMNN）的信息来量化Fisher信息提取，这是图表的函数。我们a）在无噪声限制下，模块图结构对基础宇宙学具有高度敏感性，b）表明，通过比较传统统计，网络自动结合质量和聚类信息，c）证明图形神经网络仍然可以提取信息。当目录受到嘈杂的调查削减时，d）说明了如何将非线性IMNN摘要用作贝叶斯隐性可能性推断的渐近最佳压缩统计。我们在两点相关功能上，我们将$ \ omega_m，\ sigma_8 $参数约束降低了42倍，并证明网络自动组合质量和聚类信息，将关节$ \ omega_m，\ sigma_8 $参数约束减少42倍。 。这项工作利用了JAX中的图形数据的新IMNN实现，该实现可以利用数值或自动差异性。我们还显示，IMNNS成功地压缩了远离拟合网络的基准模型的模拟，这表明基于目录的分析中$ n $ point统计的有希望的替代方法。
translated by 谷歌翻译
语言模型既展示了定量的改进，又展示了新的定性功能，随着规模的增加。尽管它们具有潜在的变革性影响，但这些新能力的特征却很差。为了为未来的研究提供信息，为破坏性的新模型能力做准备，并改善社会有害的效果，至关重要的是，我们必须了解目前和近乎未来的能力和语言模型的局限性。为了应对这一挑战，我们介绍了超越模仿游戏基准（Big Bench）。 Big Bench目前由204个任务组成，由132家机构的442位作者贡献。任务主题是多样的，从语言学，儿童发展，数学，常识性推理，生物学，物理学，社会偏见，软件开发等等。 Big-Bench专注于被认为超出当前语言模型的功能的任务。我们评估了OpenAI的GPT型号，Google内部密集变压器体系结构和大型基础上的开关稀疏变压器的行为，跨越了数百万到数十亿个参数。此外，一个人类专家评估者团队执行了所有任务，以提供强大的基准。研究结果包括：模型性能和校准都随规模改善，但绝对的术语（以及与评估者的性能相比）；在模型类中的性能非常相似，尽管带有稀疏性。逐渐和预测的任务通常涉及大量知识或记忆成分，而在临界规模上表现出“突破性”行为的任务通常涉及多个步骤或组成部分或脆性指标；社交偏见通常会随着含糊不清的环境而随着规模而增加，但这可以通过提示来改善。
translated by 谷歌翻译
平衡安全性和性能是现代控制系统设计中的主要挑战之一。此外，至关重要的是，在不诱导不必要的保守性降低绩效的情况下，确保安全至关重要。在这项工作中，我们提出了一种通过控制屏障功能（CBF）来进行安全关键控制合成的建设性方法。通过通过CBF过滤手工设计的控制器，我们能够达到性能行为，同时提供严格的安全保证。面对干扰，通过投入到国家安全的概念（ISSF）同时实现了稳健的安全性和性能。我们通过与倒置的示例同时开发CBF设计方法来采用教程方法，从而使设计过程混凝土中的挑战和敏感性。为了确定拟议方法的能力，我们考虑通过CBFS以无需拖车的8级卡车的形式来考虑通过CBF的CBF进行安全至关重要的设计。通过实验，我们看到了卡车驱动系统中未建模的干扰对CBF提供的安全保证的影响。我们表征了这些干扰并使用ISSF，生产出可靠的控制器，该控制器可以在不承认性能的情况下实现安全性。我们在模拟中评估了我们的设计，并且是在实验中首次在汽车系统上评估我们的设计。
translated by 谷歌翻译
自动生物医学图像分析的领域至关重要地取决于算法验证的可靠和有意义的性能指标。但是，当前的度量使用通常是不明智的，并且不能反映基本的域名。在这里，我们提出了一个全面的框架，该框架指导研究人员以问题意识的方式选择绩效指标。具体而言，我们专注于生物医学图像分析问题，这些问题可以解释为图像，对象或像素级别的分类任务。该框架首先编译域兴趣 - 目标结构 - ，数据集和算法与输出问题相关的属性的属性与问题指纹相关，同时还将其映射到适当的问题类别，即图像级分类，语义分段，实例，实例细分或对象检测。然后，它指导用户选择和应用一组适当的验证指标的过程，同时使他们意识到与个人选择相关的潜在陷阱。在本文中，我们描述了指标重新加载推荐框架的当前状态，目的是从图像分析社区获得建设性的反馈。当前版本是在由60多个图像分析专家的国际联盟中开发的，将在社区驱动的优化之后公开作为用户友好的工具包提供。
translated by 谷歌翻译
将动态机器人带入野外，需要平衡性能和安全之间。然而，旨在提供强大安全保证的控制器通常会导致保守行为，并调整这些控制器，以找到性能和安全之间的理想权衡通常需要域专业知识或仔细构造的奖励功能。这项工作提出了一种设计范式，用于系统地实现平衡性能和强大安全性的行为，通过将基于安全感知的基于偏好（PBL）与控制屏障功能（CBF）集成来实现平衡性能和鲁棒安全性。融合这些概念 - 安全感知的学习和安全关键控制 - 提供了一种在实践中实现复杂机器人系统的安全行为的强大手段。我们展示了这种设计范式的能力，以实现在硬件上的模拟和实验上的四足机器人的安全和表演感知的自主操作。
translated by 谷歌翻译